Năm 1947, Peres gia nhập Haganah, tiền thân của Các lực lượng phòng vệ Israel. David Ben-Gurion phân công ông chịu trách nhiệm về nhân sự và mua bán vũ khí. Năm 1952, ông được chỉ định làm Thứ trưởng Bộ Quốc phòng, và vào năm 1953, ở độ tuổi 29, trở thành Bộ trưởng trẻ nhất của Bộ Quốc phòng. Ông đã tham gia vào những vụ mua bán vũ khí và thành lập các liên minh chiến lược có vai trò quan trọng với Nhà nước Israel. Nhờ sự trung gian của Peres, Israel đã mua được loại máy bay phản lực chiến đấu Dassault Mirage III hiện đại của Pháp, thành lập lò phản ứng hạt nhân Dimona và tham gia một thoả thuận ba bên với Pháp và Anh Quốc để dẫn tới cuộc Khủng hoảng Suez năm 1956.